A Mutual Information Lower Bound for Multimodal Regression Active Learning
多模态回归主动学习的互信息下界采集函数
🧭 主动学习采集函数 · 不确定性分解
University of Pennsylvania
提出 MI-LB，分离认知与偶然不确定性，为多模态回归主动学习提供闭式互信息下界
📌 工作参考价值（4 点）
- 电商推荐中用户行为常呈多模态（如“浏览/购买/忽视”），采用混合密度网络(MDN)建模预测分布，代替单高斯输出，可更真实地捕捉不确定性。
- 主动选择标注样本时，用MI-LB作为采集函数，能可靠区分模型可减少的认知不确定性，优于方差或熵，特别适用于冷启动或在线学习场景。
- MI-LB对MDN集成提供闭式下界近似，工程实现直接，无需采样或数值积分，适合大规模推荐系统实时决策。
- 框架中的Two-Index分解思路可迁移至多臂老虎机或强化学习的探索：将认知指数作为抽象动作，驱动更高效的探索策略。